作为药物开发的必要过程，找到可以选择性地与特定蛋白质结合的药物化合物是高度挑战性和昂贵的。代表药物目标相互作用（DTI）强度的药物目标亲和力（DTA）在过去十年中在DTI预测任务中发挥了重要作用。尽管已将深度学习应用于与DTA相关的研究，但现有的解决方案忽略了分子亚结构之间的基本相关性，在分子代表学习药物化合物分子/蛋白质靶标之间。此外，传统方法缺乏DTA预测过程的解释性。这导致缺少分子间相互作用的特征信息，从而影响预测性能。因此，本文提出了一种使用交互式学习和自动编码器机制的DTA预测方法。提出的模型增强了通过药物/蛋白质分子表示学习模块捕获单个分子序列的特征信息的相应能力，并通过交互式信息学习模块补充了分子序列对之间的信息相互作用。 DTA值预测模块融合了药物目标对相互作用信息，以输出DTA的预测值。此外，从理论上讲，本文提出的方法最大化了DTA预测模型联合分布的证据下限（ELBO），从而增强了实际值和预测值之间概率分布的一致性。实验结果证实了相互变压器 - 药物目标亲和力（MT-DTA）的性能比其他比较方法更好。

Measuring and monitoring soil organic carbon is critical for agricultural productivity and for addressing critical environmental problems. Soil organic carbon not only enriches nutrition in soil, but also has a gamut of co-benefits such as improving water storage and limiting physical erosion. Despite a litany of work in soil organic carbon estimation, current approaches do not generalize well across soil conditions and management practices. We empirically show that explicit modeling of cause-and-effect relationships among the soil processes improves the out-of-distribution generalizability of prediction models. We provide a comparative analysis of soil organic carbon estimation models where the skeleton is estimated using causal discovery methods. Our framework provide an average improvement of 81% in test mean squared error and 52% in test mean absolute error.

We study the problem of model selection in causal inference, specifically for the case of conditional average treatment effect (CATE) estimation under binary treatments. Unlike model selection in machine learning, we cannot use the technique of cross-validation here as we do not observe the counterfactual potential outcome for any data point. Hence, we need to design model selection techniques that do not explicitly rely on counterfactual data. As an alternative to cross-validation, there have been a variety of proxy metrics proposed in the literature, that depend on auxiliary nuisance models also estimated from the data (propensity score model, outcome regression model). However, the effectiveness of these metrics has only been studied on synthetic datasets as we can observe the counterfactual data for them. We conduct an extensive empirical analysis to judge the performance of these metrics, where we utilize the latest advances in generative modeling to incorporate multiple realistic datasets. We evaluate 9 metrics on 144 datasets for selecting between 415 estimators per dataset, including datasets that closely mimic real-world datasets. Further, we use the latest techniques from AutoML to ensure consistent hyperparameter selection for nuisance models for a fair comparison across metrics.

语言变化的研究研究了语言在不同的说话者组之间和内部的变化，从而阐明了我们如何使用语言来构建身份以及社会环境如何影响语言的使用。一种常见的方法是在语料库中识别某些语言特征的实例 - 例如零copula构造，并分析该功能在扬声器，主题和其他变量之间的分布，以便对功能或系统地了解该功能测量变化。在本文中，我们探讨了低资源英语品种中自动形态句法特征检测的具有挑战性的任务。我们提出了一种通过语料库引导的编辑生成和过滤有效的对比度集的人类在环境中的方法。我们表明，我们的方法改善了印度英语和非裔美国人英语的功能检测，展示了它如何帮助语言研究，并发布了我们的微调模型，以供其他研究人员使用。

自动语音识别（ASR）服务无处不在，将语音转换为Amazon's Alexa，Google助手和Microsoft的Cortana等系统的文本。但是，研究人员已经确定了种族群体和国籍的特定英语口音之间的ASR表现的偏见。在本文中，我们通过大规模审核将其与历史先例和定量相关联，从定性地扩展了这一讨论。语言的标准化和使用语言维持全球和政治权力的使用在历史上发挥了重要作用，我们解释说，这表明ASR服务对当今英语说话者的行为方式表明了相似之处。然后，使用来自Speakent Accent Archive的大量和全球数据集，其中包括2700多名在171个不同国家 /地区出生的英语演讲者，我们对一些最受欢迎的英语ASR服务进行了国际审核。我们表明，绩效差异的存在是说话者的母语是否是英语，即使在控制多种语言协变量时，这些差异与说话者出生国家的政治统一性具有统计学意义的关系美国的地缘政治力量。

深度学习已被证明可以准确评估“隐藏”表型，并从传统临床医生对医学成像的解释之外的医学成像中预测生物标志物。鉴于人工智能（AI）模型的黑匣子性质，应在将模型应用于医疗保健时谨慎，因为预测任务可能会因疾病和患者人群的人口统计学差异而短路。使用来自两个医疗保健系统的大超声心动图数据集，我们测试使用深度学习算法从心脏超声图像中预测年龄，种族和性别，并评估各种混杂变量的影响。我们培训了基于视频的卷积神经网络，以预测年龄，性别和种族。我们发现，深度学习模型能够确定年龄和性别，同时无法可靠地预测种族。不考虑类别之间的混淆差异，AI模型预测性别为0.85（95％CI 0.84-0.86），年龄为9.12年的平均绝对误差为9.12年（95％CI 9.00-9.25），从AUC进行竞赛， 0.63-0.71。在预测种族时，我们表明，在培训数据中调整混杂变量（性别）的比例会显着影响AUC（从0.57到0.84），而在训练性别预测模型中，调整混杂因素（Race）并未实质性更改AUC（0.81-0.83）。这表明该模型在预测种族方面的表现很大一部分可能来自AI检测到的混杂功能。进一步的工作仍然是确定与人口统计信息相关的特定成像功能，并更好地了解医学AI中人口统计学识别的风险，因为它与潜在的偏见和差异有关。

深度学习和统计数据中的许多关键问题是由变异差距引起的，即证据和证据下限（ELBO）之间的差异。结果，在经典的VAE模型中，我们仅获得对数可能的下限，因为Elbo被用作成本函数，因此我们无法比较模型之间的对数可能性。在本文中，我们提出了变化差距的一般有效的上限，这使我们能够有效估计真实的证据。我们提供了对拟议方法的广泛理论研究。此外，我们表明，通过应用我们的估计，我们可以轻松地获得VAE模型的对数模型的下限和上限。

我们提出了一种有效的正则化战略（CW-TALAR），用于解决持续的学习问题。它使用由在由所有任务共享的底层神经网络的目标层上定义的两个概率分布之间的校准术语，该概率分布在由所有任务共享的底层神经网络的目标层，以及用于建模输出数据表示的克拉米 - WOLD发生器的简单架构。我们的策略在学习新任务时保留了目标层分发，但不需要记住以前的任务的数据集。我们执行涉及几个常见监督框架的实验，该框架证明了CW-TALAR方法的竞争力与一些现有的现有最先进的持续学习模型相比。

现代深度学习应用程序需要越来越多地计算培训最先进的模型。为了解决这一需求，大型企业和机构使用专用的高性能计算集群，其建筑和维护既昂贵又远远超出大多数组织的预算。结果，一些研究方向成为几个大型工业甚至更少的学术作用者的独家领域。为了减轻这种差异，较小的团体可以汇集他们的计算资源并运行有利于所有参与者的协作实验。这种范式称为网格或志愿者计算，在众多科学领域看到了成功的应用。然而，由于高延迟，不对称带宽以及志愿者计算独特的几个挑战，使用这种用于机器学习的方法是困难的。在这项工作中，我们仔细分析了这些约束，并提出了一种专门用于协作培训的新型算法框架。我们展示了我们在现实条件下的SWAV和Albert预先预价的方法的有效性，并在成本的一小部分中实现了与传统设置相当的性能。最后，我们提供了一份成功的协作语言模型预先追溯的详细报告，有40名参与者。

尽管深度学习使图像介绍方面取得了巨大的飞跃，但当前的方法通常无法综合现实的高频细节。在本文中，我们建议将超分辨率应用于粗糙的重建输出，以高分辨率进行精炼，然后将输出降低到原始分辨率。通过将高分辨率图像引入改进网络，我们的框架能够重建更多的细节，这些细节通常由于光谱偏置而被平滑 - 神经网络倾向于比高频更好地重建低频。为了协助培训大型高度孔洞的改进网络，我们提出了一种渐进的学习技术，其中缺失区域的大小随着培训的进行而增加。我们的缩放，完善和缩放策略，结合了高分辨率的监督和渐进学习，构成了一种框架 - 不合时宜的方法，用于增强高频细节，可应用于任何基于CNN的涂层方法。我们提供定性和定量评估以及消融分析，以显示我们方法的有效性。这种看似简单但功能强大的方法优于最先进的介绍方法。我们的代码可在https://github.com/google/zoom-to-inpaint中找到